AI Act: Verbraucherschützer fordern einfaches Beschwerdeverfahren
Für Beschwerden über KI-Anwendungen solle eine zentrale Aufsichtsbehörde eingerichtet werden, biometrische Gesichtserkennung etwa beim Einkaufen tabu sein.
(Bild: fizkes / Shutterstock.com)
Ähnlich wie der Digital Services Act (DSA) sieht die neue EU-Verordnung für Künstliche Intelligenz (KI) vor, dass Mitgliedsstaaten binnen zwölf Monaten nach Inkrafttreten effektive Aufsicht etablieren müssen. Der Bundesverband der Verbraucherzentralen (vzbv) hat dazu am Dienstag Vorschläge präsentiert, da die Zeit angesichts der Frist bis zum Frühjahr 2025 dränge. Am Herzen liegt ihm dabei, dass Verbraucher bei Beschwerden zu KI-Anwendungen möglichst nur einen Ansprechpartner haben. Die künftige zentrale nationale Aufsichtsbehörde sollte folglich für das gesamte Verfahren zuständig sein. Zudem müsse die Beschwerdeerhebung einfach sein.
In einem Positionspapier drängt der vzbv ferner darauf, einen unabhängigen nationalen KI-Beirat bei der Kontrollstelle einzurichten. Ein solcher sei entscheidend, um zivilgesellschaftliche Interessen zu berücksichtigen. Er solle die zentrale Instanz, für die der Verband noch keinen konkreten Vorschlag macht, beraten, sowie Stellungnahmen und Empfehlungen veröffentlichen. Wünschenswert wären auch privilegierte Informationsansprüche gegenüber den zuständigen Marktaufsichtsbehörden. Als Vorbild sehen die Verbraucherschützer der Beirat des Digital Services Coordinators nach dem Digitale-Dienste-Gesetz zur hiesigen DSA-Implementierung. Generell müsse der KI-Beirat mit Blick auf den Wirtschaftszweig, Start-ups, Mittelstand, Zivilgesellschaft und Wissenschaft ausgewogen besetzt werden.
Biometrische Erkennungssysteme im öffentlichen Raum verbieten
Schon innerhalb dreier Monate nach Inkrafttreten des AI-Acts muss Deutschland nationale Behörden oder Stellen benennen, die die Einhaltung der Pflichten für KI-Betreiber zum Schutz der Grundrechte überwachen oder durchsetzen. Dazu zählt neben Nichtdiskriminierung und dem Recht auf Privatsphäre auch Verbraucherschutz. Die potenziell infrage kommenden Gleichstellungs- und Datenschutzbehörden müssten daher auch die Expertise von Verbraucherschutzorganisationen einbeziehen.
Zugleich verlangt der vzbv, dass der hiesige Gesetzgeber seine Spielräume im AI-Act nutzen und den Einsatz biometrischer Fernidentifizierungssysteme wie automatisierter Gesichtserkennung an öffentlich zugänglichen Orten wie Tankstellen und Einkaufszentren auch für private Akteure untersagen sollte. Die Verbraucherschützer begründen dies damit, dass die Technik "nicht nur sehr fehleranfällig" sei, sondern durch ihren invasiven Charakter auch "ein nicht tolerierbares Risiko für die Privatsphäre" der Betroffenen darstelle. Ferner müsse deutsches Recht Strafen für sämtliche Verstöße vorsehen.
(ds)
